Инструменты для генерации кода могут стать угрозой безопасности

Новое исследование, проведенное группой исследователей из Стэнфорда, показало, что инструменты искусственного интеллекта, генерирующие код, такие как Github Copilot, могут представлять больше рисков для безопасности, чем многие пользователи могут себе представить.

Инструменты для генерации кода могут стать угрозой безопасности. Фото: СС0

В исследовании особое внимание уделялось Codex, продукту OpenAI, одним из соучредителей которого является Илон Маск.

Codex поддерживает платформу GitHub Copilot, принадлежащую Microsoft, которая предназначена для упрощения и доступности кодирования за счет перевода естественного языка в код и предложения изменений на основе контекстуальных данных.

Ведущий соавтор исследования Нил Перри объясняет, что «системы генерации кода в настоящее время не заменяют разработчиков-людей».

В исследовании приняли участие 47 разработчиков с разными способностями использовать Codex для решения проблем, связанных с безопасностью, используя языки программирования Python, JavaScript и C. Он пришел к выводу, что участники, полагавшиеся на Кодекс, с большей вероятностью писали небезопасный код по сравнению с контрольной группой.

Из сообщения Нила Перри:

«Разработчикам, использующим [инструменты программирования] для выполнения задач, выходящих за рамки их собственных знаний, следует быть обеспокоенными, а тем, кто использует их для ускорения задач, в которых они уже умеют работать, следует тщательно перепроверить результаты и контекст, в котором они работают. используются в общем проекте».

Это не первый случай, когда инструменты кодирования на основе ИИ подвергаются тщательной проверке. Фактически, одно из решений GitHub по улучшению качества кода в Copilot привело к тому, что принадлежащая Microsoft компания столкнулась с судебным иском за то, что не указала работу других разработчиков. Результатом стал иск на 9 млрд $ за 3,6 миллиона отдельных нарушений Раздела 1202.

На данный момент инструменты для генерации кода на основе ИИ лучше всего рассматривать как руку помощи, которая может ускорить программирование, а не как полную замену, однако, если развитие за последние несколько лет будет продолжаться, они могут вскоре заменить традиционное кодирование.

Startpack подготовил список антивирусных продуктов, которые помогают защитить IT-активы компании от заражения зловредами. Список содержит продукты российских и зарубежных разработчиков. Помимо защиты от вирусов, решения позволяют хранить и управлять паролями, разворачивать антиспам-системы, проводить резервное копирование данных, защищать не только персональные компьютеры, но и серверы, а также локальные сети предприятия.

Статьи по теме